Trong những năm cuối đời, thẩm quyền của Calvin được củng cố, uy tín quốc tế của ông cũng gia tăng, ông được xem là một nhà cải cách có nhiều ảnh hưởng như Martin Luther,[53] mặc dù có sự khác biệt giữa hai nhà cải cách, cả trong tính cách lẫn thần học. Calvin là nhà tư tưởng thông thái, súc tích, và mạch lạc; ông sống kín đáo và nghiêm khắc với bản thân. Luther thì dễ gần, vui vẻ, cởi mở trong nếp sống, và sôi nổi trong thần học. Calvin biết chính xác mục tiêu ông nhắm đến, Luther ứng phó theo sự thay đổi của tình thế. Cả hai nhà cải cách đều khởi đầu với giáo lý xưng công chính bởi đức tin, nhưng Luther chấp nhận vai trò của ý chí tự do, trong khi Calvin nhấn mạnh đến bản chất bại hoại của con người.[54]

Lúc đầu có sự tương kính giữa hai nhà cải cách, nhưng khi bùng nổ sự mâu thuẫn thần học về giáo lý Tiệc Thánh giữa Luther và nhà cải cách ở Zurich, Huldrych Zwingli, Luther xem Calvin là người ủng hộ Zwingli. Dù tích cực tham gia vào cuộc tranh luận giữa hai nhóm cải cách.[55] Calvin thất vọng vì sự thiếu đoàn kết trong cộng đồng cải cách. Ông hướng về việc tái lập quan hệ với Bullinger bằng việc ký kết Consensus Tigurinus, một thỏa ước giữa giáo hội Zurich và giáo hội Geneva. Ông tiếp xúc với Anh Quốc khi Tổng Giám mục Canterbury Thomas Cranmer kêu gọi tổ chức một hội nghị liên hệ phái trong vòng cộng đồng Tin Lành. Calvin ca ngợi ý tưởng này, song cuối cùng thì Cranmer không thể thực hiện được.[56]Đóng góp lớn nhất của Calvin cho cộng đồng nói tiếng Anh là cung cấp chỗ lưu trú tại Geneva cho những người Anh Kháng Cách lưu vong năm 1555 do bị bức hại dưới thời trị vì của Nữ hoàng Mary I. Dưới sự bảo trợ của thành phố, họ thành lập nhà thờ do John Knox và William Whittingham quản nhiệm, dần dà họ đã có thể quảng bá tư tưởng và thần học Calvin trở lại nước Anh và Scotland.[57]

Calvin đặc biệt quan tâm đến công cuộc cải cách ở nước Pháp, quê hương ông. Ông hỗ trợ việc xây dựng các giáo hội bằng cách phổ biến các văn kiện và cung ứng mục sư. Từ năm 1555 đến 1562, hơn 100 mục sư được cử về Pháp. Giáo hội ở Geneva cung cấp ngân quỹ cho nỗ lực này khi hội đồng thành phố từ chối dính líu đến các hoạt động truyền giáo. Với Chiếu chỉ Chateaubriant, Henri II mạnh tay bức hại người Kháng Cách, và khi giới chức Pháp than phiền với Geneva về các hoạt động truyền giáo ở Pháp, chính quyền Geneva đã có thể bác bỏ trách nhiệm của mình.[59]

Mối quan tâm chính của Calvin dành cho Geneva là xây dựng một trường học cho trẻ em, khai giảng ngày 5 tháng 6 năm 1559. Trường được chia thành 2 cấp: trường ngữ pháp gọi là collège hay schola privata, và trường cấp cao hơn gọi là académie hay schola publica. Theodore Beza được mời làm hiệu trưởng. Chỉ trong vòng 5 năm đã có 1.200 học sinh trường ngữ pháp và 300 học sinh académie. Dần dà, collège trở thành Collège Calvin, một trong những trường trung học uy tín ở Geneva, trong khi académie trở thành Đại học Geneva.[60]

Mùa thu năm 1558, Calvin lâm bệnh. Sợ qua đời trước khi hoàn tất bản hiệu đính cuối cùng cho quyển "Nguyên lý Cơ Đốc giáo", ông tự ép mình vào công việc, mở rộng từ 21 chương của ấn bản trước lên đến 80 chương.[61] Không lâu sau khi phục hồi, trong khi giảng luận, Calvin bị vỡ mạch máu phổi, sức khỏe ông suy kém dần. Calvin thuyết giảng lần cuối tại St Pierre ngày 6 tháng 2 năm 1564. Ngày 25 tháng 4, ông lập di chúc, để lại một số tiền nhỏ cho gia đình và cho collège. Vài ngày sau, khi các mục sư đến thăm Calvin, ông nói lời từ biệt, được ghi lại trong Discours d'adieu aux ministres. Calvin từ trần ngày 27 tháng 5 năm 1564 ở tuổi 54. Lúc đầu có tổ chức lễ viếng, nhưng vì có quá nhiều người đến, các nhà cải cách e sợ điều này có thể dẫn đến sự thờ phụng một vị thánh mới. Ngày hôm sau, ông được an táng trong một mộ phần không có bia mộ trong Cimetière de Plainpalais.[62] Dù không biết chính xác vị trí ngôi mộ, đến thế kỷ 19 một tảng đá được đặt tại một mộ phần người ta vẫn tin là của Calvin.[63]